Este perro, de antiquísimo origen, llega a Alemania con las legiones romanas. Desciende por lo tanto de los antiguos mastines o molosos y, en un principio, era utilizado para la custodia de los campamentos y del ganado que los ejércitos solían llevar consigo para asegurarse el sustento durante sus campañas. Más adelante, se extendió fundamentalmente por la región de Wurttemberg y en especial en la ciudad de Rottweil de la cual ha tomado su nombre. Durante mucho tiempo continuó siendo guardián del ganado constituyéndose también, en el perro preferido de los carniceros, tanto es así, que con frecuencia se le llamaba justamente "perros de carnicero". A finales del siglo XIX, había desaparecido casi por completo pero fue pacientemente reconstruido sobre la base de una selección muy estricta, utilizando los pocos ejemplares supervivientes. De este modo se obtuvo un óptimo perro de defensa, fácilmente domesticable. Tiene una fuerza y un valor fuera de lo común, estando también dotado de un buen olfato. Por esta cualidad, desde los comienzos del siglo XX, se ha difundido por toda Europa y Norte de América, logrando cada vez más una mayor aceptación hasta el punto de ser empleado en algunos países como auxiliar de los cuerpos de la policía y del ejército.